#아동 보호

학교를 휩쓴 딥페이크 범죄의 심각성

10대 남학생들이 소셜 미디어 사진을 악용해 여학생의 가짜 성적 합성물을 만드는 딥페이크 범죄가 전 세계 학교로 확산되고 있습니다. 이는 미성년자가 포함된 아동 성학대 물질(CSAM)에 해당하며, 피해자들에게 막대한 정신적 피해를 주고 있습니다. 생성형 AI 기술의 접근성이 높아짐에 따라 학교와 당국의 실효성 있는 대응과 피해자 보호가 시급한 과제로 떠올랐습니다.

오픈AI, AI 아동 성 착취 급증에 대응하는 안전 청사진 발표

오픈AI가 AI 기술을 악용한 아동 성 착취 범죄 급증에 대응하기 위해 미국 내 아동 보호 노력을 강화하는 '아동 안전 청사진'을 발표했습니다. 이 청사진은 법률 개정, 수사 기관 보고 체계 개선, AI 시스템 내 예방 조치 통합 등 3가지 핵심 분야에 중점을 두어 위협을 조기에 탐지하고 신속하게 수사관에게 정보를 전달하는 것을 목표로 합니다. 이는 최근 AI 챗봇과의 상호작용으로 인한 자살 사망 사고로 인한 정책 입안자들의 비판과 소송이 잇따르는 가운데 나온 안전 강화 조치입니다.